iT邦幫忙

2026 iThome 鐵人賽

DAY 27
0
Kubernetes

Kubernetes GPU 工作負載工程:排程、資源隔離、推論服務與可觀測性系列 第 27 篇

Day 27|GitOps 與可重現部署:今天能跑,明天也要能重建

  • 分享至 

  • xImage
  •  

前一篇討論「Kubernetes 安全邊界:GPU Pod 不應該等於特權 Pod」,這篇聚焦「GitOps 與可重現部署:今天能跑,明天也要能重建」,並沿用同一組輸入、環境與判讀規則,避免只做名詞比較。

今天要回答的問題

將 manifests/Helm/Kustomize 與版本控制串起來,確保叢集狀態可審查、可回復。

工程邊界

叢集治理的最後一哩是「可重建」

GPU Pod 不應因為需要 device 就預設 privileged;RBAC、Pod Security、Secret、image provenance 與 network policy 仍然適用。GitOps 則把 manifests、policy 與版本放回可審查的 source of truth。

Kubernetes 本身不是備份。需要另外保存 stateful data、cluster configuration 與外部依賴的恢復方式。最終的成本效率也應用「每個成功請求/token 的資源成本 + SLO」衡量,而不是單看 GPU 利用率。

一個可以直接重現的起點

可重現比手動修好重要

正式環境中的修改應回到 Git,透過 Helm/Kustomize 或 manifests 表達。可刻意刪除一個 namespace 或重建環境,確認「只靠 repo 能不能重建」。若不能,缺的那一塊就是下一個需要版本化的 artifact。

從乾淨 Namespace 重建服務

這份 YAML 將「從 declarative manifests 在乾淨 namespace 重建服務」的變因與觀察欄位留在版本控制中,再由實際 workload 引用。

apiVersion: v1
kind: ConfigMap
metadata:
  name: day27-experiment
  namespace: ai-lab
data:
  change: "從 declarative manifests 在乾淨 namespace 重建服務"
  fixed: "image, model, input"
  metrics: "diff, apply, rollout, artifact digest"
  repeats: "3"

驗證與落地方式

驗證可從「從 declarative manifests 在乾淨 namespace 重建服務」開始。除了保存 manifest 的期望狀態,也要同步觀察 scheduler event、Pod 狀態轉換、node/GPU 資源與實際請求結果。Kubernetes 顯示 Running 只代表容器已啟動,不代表模型已載入、服務已 Ready,更不代表使用者請求符合 SLO。

這篇優先比較:diff、apply、rollout、artifact digest。測試時應準備一組不套用目標策略的對照組,再以相同 workload 套用新策略。若 placement 改善但等待時間、重啟次數或服務錯誤增加,代表問題只是從排程層移到執行層,不能直接判定方案有效。

常見誤判

  • 只看 kubectl get pods 的最終狀態,忽略 Pending reason、event 順序與 readiness 變化。
  • 把 GPU allocation 當成 GPU 效率;資源已分配仍可能因 queue、I/O 或模型載入而閒置。
  • 只測單一 Pod,沒有涵蓋更新、驅逐、節點失效與重新排程,無法得知真正的服務中斷時間。

上線前檢查

部署前應確認 request/limit、affinity、taint、priority、probe 與 disruption policy 是否互相一致。變更後除了檢查 rollout,也要送出代表性請求,核對服務延遲、錯誤率與 GPU 指標。回滾條件需先定義,避免故障發生後才臨時決定是否撤回。若策略依賴特定 GPU 型號或叢集功能,也要明列適用條件,避免在不同 node pool 套用後得到相反結果。

如何閱讀結果

排程結果要和服務結果放在同一條時間線:先看 Pod 為何被放到某個節點,再看模型何時 Ready,最後核對請求是否成功。只改善 placement 卻讓 cold start 或資料下載變慢,仍然可能造成更長的使用者等待時間。

策略通過單次測試後,還要在 rollout、drain 與節點重新加入時重跑。這些事件會重新觸發排程與模型載入,最容易暴露 topology、storage、probe 與 disruption policy 之間的衝突。

結果判讀

判讀不只看最大或最漂亮的數字。這一天真正要回答的是:確認 Git 中的宣告足以重現,不靠手動叢集修改。

如果核心指標改善,但錯誤率、尾端延遲、資源成本或恢復能力變差,這代表取捨,而不是無條件進步。相反地,沒有改善也不是無效結果;至少能排除一條看似合理、實際上不值得增加複雜度的路。

今天的結論

今天的工程判斷是:確認 Git 中的宣告足以重現,不靠手動叢集修改。無論結果支持或否定原本假設,都必須保留完整條件,才能和下一天的實驗串在一起。

下一篇將處理:備份與災難復原:Kubernetes 不是備份工具。


參考資料


上一篇
Day 26|Kubernetes 安全邊界:GPU Pod 不應該等於特權 Pod
下一篇
Day 28|備份與災難復原:Kubernetes 不是備份工具
系列文
Kubernetes GPU 工作負載工程:排程、資源隔離、推論服務與可觀測性 共 29 篇
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言